"Il confine tra vero e falso non esiste più": Sora 2, l'app che genera video folli usando l'intelligenza artificiale

Ricordatevi quel nome, Sora 2. In pochi giorni, è diventata l'app gratuita numero uno sull'App Store di Apple in diversi paesi. Anche se al momento è disponibile solo su invito, ecco quanto è incredibilmente popolare Sora 2!

Ricordiamo che Sora è l'intelligenza artificiale di OpenAI per la generazione di video. In altre parole, a partire da un testo, si genera un mini-filmato, una breve clip. Ad esempio, un cowboy che fa la spaccata su due cavalli al galoppo o uno sprinter che affronta un ghepardo nei 100 metri.

Il principio non è nuovo, ma con Sora 2 abbiamo chiaramente fatto un passo avanti... Innanzitutto perché in termini di realismo di rendering, il risultato è assolutamente incredibile. Filmati da un minuto, di qualità fotorealistica, con sequenze iper-fluide da una scena all'altra, coerenza degli elementi scenografici, rispetto delle leggi di gravità, delle ombre e anche del sonoro, che corrisponde al contenuto, ad esempio sportivo o di commento giornalistico. I video sono estremamente credibili, come se stessimo guardando un film o un reportage.

Poi, perché OpenAI ha avuto l'idea geniale di creare un'applicazione di social network che prende spunto dal codice di TikTok . Con tante possibilità, come la condivisione delle proprie creazioni, anche su altri social network, e l'inserimento di se stessi (o di altre persone) nei video. Di conseguenza, diventano virali e tutti partecipano.

Il problema è che, ovviamente, quando si mette questo tipo di strumento nelle mani degli utenti di Internet, le cose vanno male. I deepfake non sono una novità, ma con Sora 2 diventano completamente impercettibili e incontrollabili: Einstein che pratica l'MMA o Michael Jackson che ruba i nuggets di pollo in un ristorante. Una delle tendenze più in voga è la resurrezione di personaggi defunti, il tutto, ovviamente, senza alcuna autorizzazione da parte dei detentori dei diritti.

Sora 2 consente di generare video di disinformazione totale e deliberata, come falsi discorsi di politici. Gli utenti di Internet che hanno utilizzato Sora 2 per generare video iperviolenti ma falsi di attacchi, disastri, scene di panico durante una sparatoria di massa, ad esempio, scene che ovviamente non sono mai esistite...

Non c'è rispetto per il diritto d'autore: si può dirottare l'immagine di un personaggio o di un personaggio di fantasia: SpongeBob in uniforme nazista, ad esempio, oppure Mario o Pikachu utilizzati e dirottati senza alcuna autorizzazione.

Il confine tra verità e falsità non esiste più. Tutto ciò che vedi sui social media può essere contestato.

E non ci sono sufficienti misure di sicurezza per contrastarlo. I video generati da Sora non sono etichettati come tali. Possono essere rilevati analizzando le caratteristiche del video; c'è una sorta di filigrana, ma non è visibile a occhio nudo. E data la velocità con cui consumiamo un video sui social media, nessuno presterà attenzione a questo dettaglio.

In teoria, creare contenuti violenti o pornografici è proibito, ma "incitandoli" in modo sottile, si raggiungono sempre i propri obiettivi (da questo punto di vista, l'IA ha ancora qualcosa da imparare dagli umani...). Tutto ciò è ancora più sorprendente se si considera che la prima versione di Sora era essa stessa iper-bloccata, persino censurata o ripulita... Passiamo da un estremo all'altro!

Perché Open AI è in una corsa per velocità e popolarità contro Google e i suoi Veo3, Runway o persino Grok . Siamo in una corsa sfrenata e da questo punto di vista Open AI riprende uno dei grandi mantra della Silicon Valley: "move fast, fix later", muoversi rapidamente per conquistare utenti e correggere gli errori in seguito...